跳到主要内容

KKT 方法

阐述

设我们需要在集合 SS 中找函数 ff 的极小值,并且

S=xi,gi(x)=0;j,hj(x)0S={x|\forall i,g_i(x)=0;\forall j,h_j(x)\le0}

其中涉及 gg 的等式称为等式约束,涉及 gg 的等式称为不等式约束。定义广义 Lagrangian 为

L(x,λ,α)=f(x)+iλigi(x)+jλjhj(x)L(x,\lambda,\alpha)=f(x)+\sum_i\lambda_ig_i(x)+\sum_j\lambda_jh_j(x)

则原函数的最小化问题与

argmaxxL(x,λ,α),α0\arg\max_x L(x,\lambda,\alpha), \alpha\ge0

是等价的。求解:

  • 它的梯度为 0
  • 所有约束满足
  • 互补松弛性 αh=0\alpha\odot h=0

实例

性质

相关内容

参考文献